STRIDE: Training Data Attribution via Sparse Recovery from Subset Perturbations
通过子集扰动稀疏恢复的高效训练数据归因
🧭 训练数据归因 · 稀疏恢复
University of Toronto · Vector Institute · Max Planck Institute for Intelligent Systems · ELLIS Institute · Thoughtworks
将训练数据归因建模为激活空间的稀疏恢复问题，让轻量 steering operator 模拟数据影响，速度快 13 倍且 SOTA
📌 工作参考价值（5 点）
- 可作为电商推荐/Agent 系统中追溯预测来源、诊断数据问题的高效工具：
- 将训练数据影响分析从梯度空间迁移到激活空间，避免反复重训练或全梯度计算，适合在线即时归因需求
- 利用稀疏恢复选择关键训练样本，可快速定位导致推荐错误或 Agent 决策异常的训练案例，辅助数据清洗与调试
- 通过预训练 steering operators 实现 “即插即用” 的归因能力，可集成进数据反馈闭环，用于增量数据质量评估与数据选择
- 方法对模型架构无侵入，仅需提取激活值，可适配各类基于 Transformer 的推荐模型与生成式推荐管道